Chiếc Ki-54 được phát triển để đáp ứng theo yêu cầu của Lục quân Đế quốc Nhật Bản cho một kiểu máy bay huấn luyện nâng cao hai động cơ, chủ yếu dành cho huấn luyện đội bay. Chiếc nguyên mẫu bay chuyến bay đầu tiên vào năm 1940, và sau khi hoàn tất các thử nghiệm, được đưa vào sản xuất vào năm 1941 như là Máy bay huấn luyện Nâng cao Lục quân Kiểu 1 Loại A. Phe Đồng Minh đã đặt tên mã cho chúng là Hickory. Các phiên bản Ki-54b và -c đã đạt được những thành tích đáng kể cho đến cuối cuộc chiến.